Hijo del organista Johann Christoph Bach (1671-1721), se le llama ‘el joven’, para distinguirlo de un miembro mayor de la familia con el mismo nombre. Era sobrino de Johann Sebastian Bach y hermano del oboísta Johann Andreas Bach. Estudió con Johann Sebastian en Weimar y Köthen entre 1715 y 1719,  trabajando para su tío como copista.

En 1721 sucedió a su padre en el puesto de organista de la Michaeliskirche de Ohrdruf.

El musicólogo alemán Julius August Philipp Spitta (1841-1894) en su biografía de Johann Sebastián Bach menciona dos obras suyas para clavicordio (ahora perdidas), una suite en Mi Mayor y una sonata en Si Mayor.